Поделиться через

az ml service

  • Ссылка

Примечание.

Эта ссылка является частью расширения azure-cli-ml для Azure CLI (версия 2.0.28 или более поздней). Расширение автоматически установит команду az ml service при первом запуске. Подробнее о расширениях.

Управление операционными службами.

Команды

Имя Описание Тип Состояние
az ml service delete

Удаление службы из рабочей области.

 Расширение Общедоступная версия
az ml service get-access-token

Получение маркера для выдачи запросов к службе.

 Расширение Общедоступная версия
az ml service get-keys

Получение ключей для выдачи запросов к службе.

 Расширение Общедоступная версия
az ml service get-logs

Получение журналов для службы.

 Расширение Общедоступная версия
az ml service list

Вывод списка служб в рабочей области.

 Расширение Общедоступная версия
az ml service regen-key

Повторно создайте ключи для службы.

 Расширение Общедоступная версия
az ml service run

Запустите службу в рабочей области.

 Расширение Общедоступная версия
az ml service show

Отображение сведений о службе в рабочей области.

 Расширение Общедоступная версия
az ml service update

Обновите службу в рабочей области.

 Расширение Общедоступная версия

az ml service delete

Удаление службы из рабочей области.

az ml service delete --name
                     [--path]
                     [--resource-group]
                     [--subscription-id]
                     [--workspace-name]
                     [-v]

Обязательные параметры

--name -n

Имя службы для удаления.

Необязательные параметры

--path

Путь к папке проекта. По умолчанию: текущий каталог.

--resource-group -g

Группа ресурсов, соответствующая предоставленной рабочей области.

--subscription-id

Указывает идентификатор подписки.

--workspace-name -w

Имя рабочей области, содержащей службу для удаления.

-v

Флаг детализации.

Глобальные параметры
--debug

Повышение уровня детализации журнала для включения всех журналов отладки.

--help -h

Отображение этого справочного сообщения и выход.

--only-show-errors

Показывать только ошибки, блокируя предупреждения.

--output -o

Формат вывода.

допустимые значения: json, jsonc, none, table, tsv, yaml, yamlc
значение по умолчанию: json
--query

Строка запроса JMESPath. Дополнительные сведения и примеры см. в разделе http://jmespath.org/.

--subscription

Имя или идентификатор подписки Подписку по умолчанию можно настроить с помощью az account set -s NAME_OR_ID.

--verbose

Повышение уровня детализации журнала. Чтобы включить полные журналы отладки, используйте параметр --debug.

az ml service get-access-token

Получение маркера для выдачи запросов к службе.

az ml service get-access-token --name
                               [--path]
                               [--resource-group]
                               [--subscription-id]
                               [--workspace-name]
                               [-v]

Обязательные параметры

--name -n

Имя службы.

Необязательные параметры

--path

Путь к папке проекта. По умолчанию: текущий каталог.

--resource-group -g

Группа ресурсов, соответствующая предоставленной рабочей области.

--subscription-id

Указывает идентификатор подписки.

--workspace-name -w

Имя рабочей области, содержащей службу для отображения.

-v

Флаг детализации.

Глобальные параметры
--debug

Повышение уровня детализации журнала для включения всех журналов отладки.

--help -h

Отображение этого справочного сообщения и выход.

--only-show-errors

Показывать только ошибки, блокируя предупреждения.

--output -o

Формат вывода.

допустимые значения: json, jsonc, none, table, tsv, yaml, yamlc
значение по умолчанию: json
--query

Строка запроса JMESPath. Дополнительные сведения и примеры см. в разделе http://jmespath.org/.

--subscription

Имя или идентификатор подписки Подписку по умолчанию можно настроить с помощью az account set -s NAME_OR_ID.

--verbose

Повышение уровня детализации журнала. Чтобы включить полные журналы отладки, используйте параметр --debug.

az ml service get-keys

Получение ключей для выдачи запросов к службе.

az ml service get-keys --name
                       [--path]
                       [--resource-group]
                       [--subscription-id]
                       [--workspace-name]
                       [-v]

Обязательные параметры

--name -n

Имя службы.

Необязательные параметры

--path

Путь к папке проекта. По умолчанию: текущий каталог.

--resource-group -g

Группа ресурсов, соответствующая предоставленной рабочей области.

--subscription-id

Указывает идентификатор подписки.

--workspace-name -w

Имя рабочей области, содержащей службу для отображения.

-v

Флаг детализации.

Глобальные параметры
--debug

Повышение уровня детализации журнала для включения всех журналов отладки.

--help -h

Отображение этого справочного сообщения и выход.

--only-show-errors

Показывать только ошибки, блокируя предупреждения.

--output -o

Формат вывода.

допустимые значения: json, jsonc, none, table, tsv, yaml, yamlc
значение по умолчанию: json
--query

Строка запроса JMESPath. Дополнительные сведения и примеры см. в разделе http://jmespath.org/.

--subscription

Имя или идентификатор подписки Подписку по умолчанию можно настроить с помощью az account set -s NAME_OR_ID.

--verbose

Повышение уровня детализации журнала. Чтобы включить полные журналы отладки, используйте параметр --debug.

az ml service get-logs

Получение журналов для службы.

az ml service get-logs --name
                       [--init]
                       [--num_lines]
                       [--path]
                       [--resource-group]
                       [--subscription-id]
                       [--workspace-name]
                       [-v]

Обязательные параметры

--name -n

Имя службы.

Необязательные параметры

--init -i

Получение журналов контейнера init вместо контейнера оценки.

значение по умолчанию: False
--num_lines -l

Число строк журнала для возврата из хвоста (по умолчанию — 5000).

значение по умолчанию: 5000
--path

Путь к папке проекта. По умолчанию: текущий каталог.

--resource-group -g

Группа ресурсов, соответствующая предоставленной рабочей области.

--subscription-id

Указывает идентификатор подписки.

--workspace-name -w

Имя рабочей области, содержащей службу для отображения.

-v

Флаг детализации.

Глобальные параметры
--debug

Повышение уровня детализации журнала для включения всех журналов отладки.

--help -h

Отображение этого справочного сообщения и выход.

--only-show-errors

Показывать только ошибки, блокируя предупреждения.

--output -o

Формат вывода.

допустимые значения: json, jsonc, none, table, tsv, yaml, yamlc
значение по умолчанию: json
--query

Строка запроса JMESPath. Дополнительные сведения и примеры см. в разделе http://jmespath.org/.

--subscription

Имя или идентификатор подписки Подписку по умолчанию можно настроить с помощью az account set -s NAME_OR_ID.

--verbose

Повышение уровня детализации журнала. Чтобы включить полные журналы отладки, используйте параметр --debug.

az ml service list

Вывод списка служб в рабочей области.

az ml service list [--compute-type]
                   [--image-digest]
                   [--model-id]
                   [--model-name]
                   [--path]
                   [--property]
                   [--resource-group]
                   [--subscription-id]
                   [--tag]
                   [--workspace-name]
                   [-v]

Необязательные параметры

--compute-type -c

Если это указано, отображаются только службы с указанным типом вычислений. (Параметры : ACI, AKS).

--image-digest

Если это указано, будет отображаться только службы, имеющие указанный дайджест образа.

--model-id

При условии отображается только службы с указанным идентификатором модели.

--model-name

При условии отображается только службы с указанным именем модели.

--path

Путь к папке проекта. По умолчанию: текущий каталог.

--property

При условии отфильтруется по указанному ключу или значению (e.g. key или key=value). Можно указать несколько свойств с несколькими параметрами --property.

значение по умолчанию: []
--resource-group -g

Группа ресурсов, соответствующая предоставленной рабочей области.

--subscription-id

Указывает идентификатор подписки.

--tag

При условии отфильтруется по указанному ключу или значению (e.g. key или key=value). Несколько тегов можно указать с несколькими параметрами --tag.

значение по умолчанию: []
--workspace-name -w

Имя рабочей области, содержащей службы для списка.

-v

Флаг детализации.

Глобальные параметры
--debug

Повышение уровня детализации журнала для включения всех журналов отладки.

--help -h

Отображение этого справочного сообщения и выход.

--only-show-errors

Показывать только ошибки, блокируя предупреждения.

--output -o

Формат вывода.

допустимые значения: json, jsonc, none, table, tsv, yaml, yamlc
значение по умолчанию: json
--query

Строка запроса JMESPath. Дополнительные сведения и примеры см. в разделе http://jmespath.org/.

--subscription

Имя или идентификатор подписки Подписку по умолчанию можно настроить с помощью az account set -s NAME_OR_ID.

--verbose

Повышение уровня детализации журнала. Чтобы включить полные журналы отладки, используйте параметр --debug.

az ml service regen-key

Повторно создайте ключи для службы.

az ml service regen-key --key
                        --name
                        [--path]
                        [--resource-group]
                        [--set-key]
                        [--subscription-id]
                        [--workspace-name]
                        [-v]

Обязательные параметры

--key -k

Какой ключ необходимо повторно создать, если указан повторное создание. Параметры: основной, вторичный.

--name -n

Имя службы.

Необязательные параметры

--path

Путь к папке проекта. По умолчанию: текущий каталог.

--resource-group -g

Группа ресурсов, соответствующая предоставленной рабочей области.

--set-key -s

Укажите значение проверки подлинности для указанного ключа.

--subscription-id

Указывает идентификатор подписки.

--workspace-name -w

Имя рабочей области, содержащей службу для отображения.

-v

Флаг детализации.

Глобальные параметры
--debug

Повышение уровня детализации журнала для включения всех журналов отладки.

--help -h

Отображение этого справочного сообщения и выход.

--only-show-errors

Показывать только ошибки, блокируя предупреждения.

--output -o

Формат вывода.

допустимые значения: json, jsonc, none, table, tsv, yaml, yamlc
значение по умолчанию: json
--query

Строка запроса JMESPath. Дополнительные сведения и примеры см. в разделе http://jmespath.org/.

--subscription

Имя или идентификатор подписки Подписку по умолчанию можно настроить с помощью az account set -s NAME_OR_ID.

--verbose

Повышение уровня детализации журнала. Чтобы включить полные журналы отладки, используйте параметр --debug.

az ml service run

Запустите службу в рабочей области.

az ml service run --name
                  [--input-data]
                  [--path]
                  [--resource-group]
                  [--subscription-id]
                  [--workspace-name]
                  [-v]

Обязательные параметры

--name -n

Имя службы для оценки.

Необязательные параметры

--input-data -d

Данные, используемые для вызова веб-службы.

--path

Путь к папке проекта. По умолчанию: текущий каталог.

--resource-group -g

Группа ресурсов, соответствующая предоставленной рабочей области.

--subscription-id

Указывает идентификатор подписки.

--workspace-name -w

Имя рабочей области, содержащей службу для запуска.

-v

Флаг детализации.

Глобальные параметры
--debug

Повышение уровня детализации журнала для включения всех журналов отладки.

--help -h

Отображение этого справочного сообщения и выход.

--only-show-errors

Показывать только ошибки, блокируя предупреждения.

--output -o

Формат вывода.

допустимые значения: json, jsonc, none, table, tsv, yaml, yamlc
значение по умолчанию: json
--query

Строка запроса JMESPath. Дополнительные сведения и примеры см. в разделе http://jmespath.org/.

--subscription

Имя или идентификатор подписки Подписку по умолчанию можно настроить с помощью az account set -s NAME_OR_ID.

--verbose

Повышение уровня детализации журнала. Чтобы включить полные журналы отладки, используйте параметр --debug.

az ml service show

Отображение сведений о службе в рабочей области.

az ml service show --name
                   [--path]
                   [--resource-group]
                   [--subscription-id]
                   [--workspace-name]
                   [-v]

Обязательные параметры

--name -n

Имя отображаемой веб-службы.

Необязательные параметры

--path

Путь к папке проекта. По умолчанию: текущий каталог.

--resource-group -g

Группа ресурсов, соответствующая предоставленной рабочей области.

--subscription-id

Указывает идентификатор подписки.

--workspace-name -w

Имя рабочей области, содержащей службу для отображения.

-v

Флаг детализации.

Глобальные параметры
--debug

Повышение уровня детализации журнала для включения всех журналов отладки.

--help -h

Отображение этого справочного сообщения и выход.

--only-show-errors

Показывать только ошибки, блокируя предупреждения.

--output -o

Формат вывода.

допустимые значения: json, jsonc, none, table, tsv, yaml, yamlc
значение по умолчанию: json
--query

Строка запроса JMESPath. Дополнительные сведения и примеры см. в разделе http://jmespath.org/.

--subscription

Имя или идентификатор подписки Подписку по умолчанию можно настроить с помощью az account set -s NAME_OR_ID.

--verbose

Повышение уровня детализации журнала. Чтобы включить полные журналы отладки, используйте параметр --debug.

az ml service update

Обновите службу в рабочей области.

az ml service update --name
                     [--add-property]
                     [--add-tag]
                     [--ae]
                     [--ai]
                     [--ar]
                     [--as]
                     [--at]
                     [--autoscale-max-replicas]
                     [--autoscale-min-replicas]
                     [--base-image]
                     [--base-image-registry]
                     [--cc]
                     [--ccl]
                     [--cf]
                     [--collect-model-data]
                     [--compute-target]
                     [--cuda-version]
                     [--dc]
                     [--description]
                     [--dn]
                     [--ds]
                     [--ed]
                     [--eg]
                     [--entry-script]
                     [--environment-name]
                     [--environment-version]
                     [--failure-threshold]
                     [--gb]
                     [--gbl]
                     [--gc]
                     [--ic]
                     [--id]
                     [--is-migration]
                     [--kp]
                     [--ks]
                     [--lo]
                     [--max-request-wait-time]
                     [--model]
                     [--model-metadata-file]
                     [--no-wait]
                     [--nr]
                     [--path]
                     [--period-seconds]
                     [--po]
                     [--remove-tag]
                     [--replica-max-concurrent-requests]
                     [--resource-group]
                     [--rt]
                     [--sc]
                     [--scoring-timeout-ms]
                     [--sd]
                     [--se]
                     [--sk]
                     [--sp]
                     [--st]
                     [--subscription-id]
                     [--timeout-seconds]
                     [--token-auth-enabled]
                     [--workspace-name]
                     [-v]

Обязательные параметры

--name -n

Имя службы для обновления.

Необязательные параметры

--add-property

Свойство key/value для добавления (e.g. key=value). Можно указать несколько свойств с несколькими параметрами свойств --add-.

значение по умолчанию: []
--add-tag

Тег ключа и значения для добавления (e.g. key=value). Несколько тегов можно указать с несколькими параметрами тегов --add-tag.

значение по умолчанию: []
--ae --auth-enabled

Указывает, следует ли включить проверку подлинности для этого объект WebService. Значение по умолчанию — False.

--ai --enable-app-insights

Указывает, следует ли включить AppInsights для этой веб-службы. Значение по умолчанию — False.

--ar --autoscale-refresh-seconds

Частота, с которой должны выполняться попытки автомасштабирования этой Веб-службы. По умолчанию равен 1.

--as --autoscale-enabled

Указывает, следует ли включить автомасштабирование для этой Веб-службы. По умолчанию имеет значение True, если num_replicas имеет значение None.

--at --autoscale-target-utilization

Целевой объем использования, который нужно пытаться поддерживать при автомасштабировании этой Веб-службы (в процентах от 100). Значение по умолчанию — 70.

--autoscale-max-replicas --ma

Максимальное число контейнеров, используемых при автомасштабировании этой Веб-службы. Значение по умолчанию равно 10.

--autoscale-min-replicas --mi

Минимальное число контейнеров, используемых при автомасштабировании этой Веб-службы. По умолчанию равен 1.

--base-image --bi

Пользовательский образ, который нужно использовать в качестве базового. Если базовый образ не задан, то будет использоваться базовый образ на основе заданного параметра среды выполнения.

--base-image-registry --ir

Реестр образов, содержащий базовый образ.

--cc --cpu-cores

Количество ядер ЦП, выделяемых для этой Веб-службы. Может выражаться десятичным числом. Значение по умолчанию — 0.1.

--ccl --cpu-cores-limit

Максимальное число ядер ЦП, которое может использовать этот объект WebService. Может выражаться десятичным числом.

--cf --conda-file

Путь к локальному файлу с определением среды conda для использования для образа.

--collect-model-data --md

Указывает, следует ли включить сбор данных модели для этой веб-службы. Значение по умолчанию — False.

--compute-target

(предварительная версия) Указывает целевой объект вычислений с расширением AzureML, установленным для размещения перенесенной виртуальной конечной точки Kubernetes и развертывания.

--cuda-version --cv

Версия CUDA, которую нужно установить для образов, требующих поддержки GPU. Образ GPU должен использоваться службами Microsoft Azure, такими как Экземпляры контейнеров Azure, Вычислительная среда Машинного обучения Azure, Виртуальные машины Azure и Служба Azure Kubernetes. Поддерживаются версии 9.0, 9.1 и 10.0. Если задано значение 'enable_gpu', по умолчанию используется версия '9.1'.

--dc --deploy-config-file

Путь к JSON-файлу с метаданными развертывания.

--description -d

Описание службы.

--dn --dns-name-label

Dns-имя для этой веб-службы.

--ds --extra-docker-file-steps

Путь к локальному файлу с дополнительными шагами Docker для запуска при настройке образа.

--ed --environment-directory

Каталог для среды Машинное обучение Azure для развертывания. Это тот же путь к каталогу, что и в команде az ml environment scaffold.

--eg --enable-gpu

Указывает, следует ли включить поддержку GPU в образе. Образ GPU должен использоваться службами Microsoft Azure, такими как Экземпляры контейнеров Azure, Вычислительная среда Машинного обучения Azure, Виртуальные машины Azure и Служба Azure Kubernetes. Значение по умолчанию — False.

--entry-script --es

Путь к локальному файлу, который содержит код для запуска службы (относительный путь от source_directory, если он указан).

--environment-name -e

Имя среды Машинное обучение Azure для развертывания.

--environment-version --ev

Версия существующей среды Машинное обучение Azure для развертывания.

--failure-threshold --ft

Когда модуль Pod запускается и проба активности завершается ошибкой, Kubernetes будет пытаться --failure-пороговое время, прежде чем отказаться. Значение по умолчанию — 3. Минимальное значение — 1.

--gb --memory-gb

Объем памяти (в ГБ), выделяемой для этого объекта веб-службы. Может выражаться десятичным числом.

--gbl --memory-gb-limit

Максимальный объем памяти (в ГБ), который может использовать этот объект WebService. Может выражаться десятичным числом.

--gc --gpu-cores

Количество ядер gpu, выделяемых для этой веб-службы. По умолчанию 1.

--ic --inference-config-file

Путь к JSON-файлу или YAML, содержанию конфигурации вывода.

--id --initial-delay-seconds

Количество секунд после запуска контейнера до начала пробы активности. Значение по умолчанию — 310.

--is-migration

(предварительная версия) Перенос веб-службы AKS в конечную точку и развертывание Kubernetes в Сети. Значение по умолчанию — False.

--kp --primary-key

Первичный ключ проверки подлинности, используемый для этой веб-службы.

--ks --secondary-key

Вторичный ключ проверки подлинности, используемый для этой Веб-службы.

--lo --location

Регион Azure для развертывания этой веб-службы. Если не указать, будет использоваться расположение рабочей области. Дополнительные сведения о доступных регионах см. здесь: https://azure.microsoft.com/en-us/global-infrastructure/services/?regions=all& products=container-instances.

--max-request-wait-time --mr

Максимальный период времени (в миллисекундах), в течение которого запрос будет оставаться в очереди до возврата ошибки 503. По умолчанию: 500.

--model -m

Идентификатор развернутой модели. Можно указать несколько моделей с дополнительными аргументами -m. Сначала необходимо зарегистрировать модели.

значение по умолчанию: []
--model-metadata-file -f

Путь к JSON-файлу с метаданными регистрации модели. Можно предоставить несколько моделей с помощью нескольких параметров -f.

значение по умолчанию: []
--no-wait

Пометка, чтобы не ожидать асинхронных вызовов.

--nr --num-replicas

Количество контейнеров, выделяемых для этой Веб-службы. Значения по умолчанию нет. Если этот параметр не задан, средство автомасштабирования будет включено по умолчанию.

--path

Путь к папке проекта. По умолчанию: текущий каталог.

--period-seconds --ps

Частота (в секундах) выполнения пробы активности. Значение по умолчанию — 10 секунд. Минимальное значение — 1.

--po --port

Локальный порт, на который будет предоставляться конечная точка HTTP службы.

--remove-tag

Ключ тега для удаления. Несколько тегов можно указать с несколькими параметрами тегов --remove-tag.

значение по умолчанию: []
--replica-max-concurrent-requests --rm

Количество одновременных запросов на узел, разрешающих эту веб-службу. По умолчанию равен 1.

--resource-group -g

Группа ресурсов, соответствующая предоставленной рабочей области.

--rt --runtime

Какая среда выполнения используется для образа. Текущие поддерживаемые среды выполнения: spark-py и python-py|python|python|slim.

--sc --ssl-cname

CNAME, необходимый при включенном SSL. Применимо только при обновлении службы ACI.

--scoring-timeout-ms --tm

Время ожидания для вызовов оценок этой Веб-службы. Значение по умолчанию — 60000.

--sd --source-directory

Путь к папкам, содержащим все файлы для создания образа.

--se --ssl-enabled

Указывает, следует ли включить SSL для этой веб-службы. Значение по умолчанию — False.

--sk --ssl-key-pem-file

Файл ключа, необходимый при включенном SSL.

--sp --ssl-cert-pem-file

Файл сертификата, необходимый при включенном SSL.

--st --success-threshold

Минимальное число последовательных успешных попыток пробы активности после сбоя, после которых проба будет считаться успешной. По умолчанию равен 1. Минимальное значение — 1.

--subscription-id

Указывает идентификатор подписки.

--timeout-seconds --ts

Количество секунд, после которого истекает время ожидания пробы активности. Значение по умолчанию — 2 секунды. Минимальное значение — 1.

--token-auth-enabled

Следует ли включить проверку подлинности маркеров для этой веб-службы. Доступно только для веб-служб AKS. Значение по умолчанию — False.

--workspace-name -w

Имя рабочей области, содержащей службу для обновления.

-v

Флаг детализации.

Глобальные параметры
--debug

Повышение уровня детализации журнала для включения всех журналов отладки.

--help -h

Отображение этого справочного сообщения и выход.

--only-show-errors

Показывать только ошибки, блокируя предупреждения.

--output -o

Формат вывода.

допустимые значения: json, jsonc, none, table, tsv, yaml, yamlc
значение по умолчанию: json
--query

Строка запроса JMESPath. Дополнительные сведения и примеры см. в разделе http://jmespath.org/.

--subscription

Имя или идентификатор подписки Подписку по умолчанию можно настроить с помощью az account set -s NAME_OR_ID.

--verbose

Повышение уровня детализации журнала. Чтобы включить полные журналы отладки, используйте параметр --debug.